Ki-27 là máy bay tiêm kích chủ yếu của Lục quân cho đến đầu Thế Chiến II. Trong Trận chiến Khalkhin Gol chống lại Liên Xô tại Mông Cổ năm 1939, Ki-27 đối mặt với máy bay tiêm kích cánh kép Polikarpov I-15 và cánh đơn Polikarpov I-16 và chịu thiệt hại do thiếu vỏ giáp bảo vệ phi công cũng như thùng nhiên liệu không tự hàn kín hoặc thiếu bộ phận dập lửa. Thêm vào đó, khung máy bay không chịu được áp lực ở tốc độ cao nên phi công Xô Viết thường thoát các cuộc tấn công của Ki-27 khi bổ nhào. Hơn nữa, trang bị vũ khí chỉ có 2 súng máy cỡ nòng súng trường là khá yếu. Đó là lý do, mặc dù khả năng lượn vòng của Ki-27 xuất sắc, con số 1.252 máy bay địch bị bắn rơi do Nhật đưa ra là không thực tế (gấp 6 lần con số chính thức của Liên Xô thừa nhận).().

Khả năng lượn vòng tốt của Ki-27 gây cho Lục quân sự chú ý gần như duy nhất vào tính cơ động, một quyết định sẽ quay lại ám ảnh họ sau này vì nó gây hại cho sự phát triển những máy bay tiêm kích nhanh hơn và trang bị nặng hơn. Ki-27 phục vụ cho đến lúc bắt đầu Thế Chiến II tại Thái Bình Dương, hộ tống máy bay ném bom tấn công Singapore. Sau khi được thay thế bởi Nakajima Ki-43, Ki-27 tiếp tục phục vụ ở vai trò huấn luyện. Nó cũng được xuất khẩu để phục vụ trong Không quân Mãn Châu Quốc và Không quân Thái Lan và tham gia chiến đấu trong cả hai lực lượng này. Tại Thái Lan, Ki-27 báo cáo đã bắn hư hại một chiếc P-51 Mustang và bắn rơi một chiếc P-38 Lightning. Gần cuối Thế Chiến II, một vài chiếc Ki-27 gắn chất nổ cho đến 500 kg (1.100 lb) cho những nhiệm vụ cảm tử "Thần Phong" (Kamikaze).